Supercomputers MEPhI

Forwarded from Страна Росатом

В зоне действия нейросети: как суперкомпьютеры влияют на искусственный интеллект

О том, как суперкомпьютеры связаны с ИИ, «СР» рассказал академик РАН Игорь Каляев.

— В рамках научной программы НЦФМ вы отвечаете за два направления: по искусственному интеллекту и архитектуре суперкомпьютеров. Как они связаны?

— Одно без другого развиваться уже не может. Например, большая языковая модель ChatGPT3 использует более 175 млрд варьируемых параметров, для ее обучения потребовалось около 420 Гб текста. Все творения Шекспира весят 5,5 Мб. Если вы будете читать по странице в минуту 24 часа в сутки, вам понадобится 400 лет, чтобы достичь уровня «образованности» ChatGPT3. Такие возможности модели дает суперкомпьютер Azure AI — 285 тыс. процессорных ядер, 10 тыс. GPU и производительность 30 квадриллионов операций в секунду.

— Большинство достижений ИИ напрямую связано с ростом мощности суперкомпьютеров?

— Именно так. В 1997 году суперкомпьютер Deep Blue производительностью 1 терафлопс обыграл чемпиона мира по шахматам. Суперкомпьютер Watson производительностью 1 петафлопс в 2011‑м победил в викторине «Своя игра». На суперкомпьютере производительностью 10 петафлопс была создана программа AlphaGo, которая в 2016‑м обыграла чемпиона мира по го.
ИИ может существенно повысить эффективность суперкомпьютеров. Оптимально распределять гетерогенные ресурсы суперкомпьютера по задачам, прогнозировать эффективность решения прикладных задач, подстраивать параметры вычислительного задания под архитектуру суперкомпьютера и проч.

— В чем их суть нейроморфных технологий?

— Они основаны на принципах обработки информации, присущих человеческому мозгу. В НЦФМ мы развиваем проект интеллектуальных нейроморфных и нейрогибридных систем на новой электронной компонентной базе. С этой парадигмой связывают прорыв в аппаратной реализации нейросетевых алгоритмов и информационно-вычислительных систем на мемристорах.

Подробнее — на сайте «СР»: https://clck.ru/3B4rBw

#статьиСР #НЦФМ
@StranaRosatom

🔥3👍2💩1

www.tg-me.com/sa/Supercomputers MEPhI/com.supercomputers_mephi/572

406 viewsJun 5, 2024 at 08:01

В зоне действия нейросети: как суперкомпьютеры влияют на искусственный интеллект

О том, как суперкомпьютеры связаны с ИИ, «СР» рассказал академик РАН Игорь Каляев.

— В рамках научной программы НЦФМ вы отвечаете за два направления: по искусственному интеллекту и архитектуре суперкомпьютеров. Как они связаны?

— Одно без другого развиваться уже не может. Например, большая языковая модель ChatGPT3 использует более 175 млрд варьируемых параметров, для ее обучения потребовалось около 420 Гб текста. Все творения Шекспира весят 5,5 Мб. Если вы будете читать по странице в минуту 24 часа в сутки, вам понадобится 400 лет, чтобы достичь уровня «образованности» ChatGPT3. Такие возможности модели дает суперкомпьютер Azure AI — 285 тыс. процессорных ядер, 10 тыс. GPU и производительность 30 квадриллионов операций в секунду.

— Большинство достижений ИИ напрямую связано с ростом мощности суперкомпьютеров?

— Именно так. В 1997 году суперкомпьютер Deep Blue производительностью 1 терафлопс обыграл чемпиона мира по шахматам. Суперкомпьютер Watson производительностью 1 петафлопс в 2011‑м победил в викторине «Своя игра». На суперкомпьютере производительностью 10 петафлопс была создана программа AlphaGo, которая в 2016‑м обыграла чемпиона мира по го.
ИИ может существенно повысить эффективность суперкомпьютеров. Оптимально распределять гетерогенные ресурсы суперкомпьютера по задачам, прогнозировать эффективность решения прикладных задач, подстраивать параметры вычислительного задания под архитектуру суперкомпьютера и проч.

— В чем их суть нейроморфных технологий?

— Они основаны на принципах обработки информации, присущих человеческому мозгу. В НЦФМ мы развиваем проект интеллектуальных нейроморфных и нейрогибридных систем на новой электронной компонентной базе. С этой парадигмой связывают прорыв в аппаратной реализации нейросетевых алгоритмов и информационно-вычислительных систем на мемристорах.

Подробнее — на сайте «СР»: https://clck.ru/3B4rBw

#статьиСР #НЦФМ
@StranaRosatom

BY Supercomputers MEPhI